ประสิทธิ์ โฆวิไลกูล เกิดเมื่อวันที่ 22 มิถุนายน พ.ศ. 2486[3] สำเร็จการศึกษานิติศาสตรบัณฑิต (เกียรตินิยมอันดับ 2) จากจุฬาลงกรณ์มหาวิทยาลัย และปริญญาโททางกฎหมาย จากมหาวิทยาลัยโคลัมเบีย ประเทศสหรัฐอเมริกา

ด้านชีวิตครอบครัวสมรสกับรองศาสตราจารย์ สุกัญญา โฆวิไลกุล (สกุลเดิม ศิริตันติกร) อดีตอาจารย์ประจำคณะครุศาสตร์ จุฬาลงกรณ์มหาวิทยาลัย มีบุตรด้วยกัน 2 คน คือ นางสาวสิริกัญญา โฆวิไลกูล และนายสิรวิชญ์ โฆวิไลกูล